#unsupervised learning

5 篇

Scalable Visual Pretraining for Language Intelligence

可扩展的视觉预训练用于语言智能

🧭 视觉文档预训练提升语言智能

Shanghai Artificial Intelligence Laboratory · University of Science and Technology of China · Zhejiang University · Shanghai Jiao Tong University

直接在视觉文档上预训练可超越纯文本预训练，为语言智能提供高效可扩展路径

📌 工作参考价值（4 点）

商品详情页理解：电商场景中大量信息以布局、表格、图片形式存在，传统 OCR→文本流程丢失空间关系。可借鉴视觉预训练，直接对详情页截图编码，提升对结构化信息（如规格参数、对比图表）的理解，改善搜索与推荐相关性。
Agent UI 理解：在购物助手、广告投放等 Agent 任务中，直接对操作界面截图进行视觉预训练，能让模型学会从像素推断可点击元素与交互逻辑，减少对 DOM 或渲染文本的依赖，提升自动化决策鲁棒性。
落地页质量评估：广告落地页通常包含大量视觉元素，视觉预训练后的模型可从整体布局、美学设计角度评估页面转化潜力，用于素材优选或创意生成前的质量过滤。
跨模态语义对齐：视觉预训练获得的表征可与商品标题、用户行为序列联合微调，形成更强的跨模态语义空间，有助于冷启动商品或图文不匹配问题的解决。

Training | 2026-07-09 | HF Daily | score 6/10

Unsupervised Data-Efficient Cross-Modal Retrieval with Global-Neighborhood Alignment Hashing

无监督数据高效跨模态检索：全局邻域对齐哈希

🧭 跨模态哈希 · 数据高效对齐

Nanyang Technological University · South China University of Technology · Henan Normal University · Peking University Shenzhen Graduate School · VinUniversity

仅用少量图文对，通过原型全局对齐与随机邻域对比学习，将视觉–语言大模型语义结构压缩为二进制哈希码

📌 工作参考价值（4 点）

在电商商品多模态检索中，可利用少量商品图文对训练哈希映射，大幅降低向量存储和检索成本，适合移动端或边缘设备部署。
原型锚定全局对齐思想可迁移到推荐系统的多模态特征融合，通过维护类别原型保持哈希空间全局语义结构，缓解小样本特征坍塌。
对比随机邻域对齐建模随机邻域关系，可缓解正负样本稀疏问题，在推荐中用于增强用户–物品交互图的表征学习，提升冷启动物品的语义索引质量。
从视觉–语言基础模型（如 CLIP）蒸馏哈希码的方法，可借鉴用于冷启动物品的快速二进制语义 ID 生成，加速召回并降低在线存储开销。

Multimodal | 2026-06-30 | cs.IR | score 6/10

cross-modal hashing data-efficient unsupervised learning vision-language model prototype alignment stochastic neighborhood

Entropic Auto-Encoding via Implicit Free-Energy Minimization

熵自编码器：通过隐式自由能最小化避免后验坍塌

🧭 生成模型训练 · 抗后验坍塌

Queen’s University

只用重建损失，通过编码器集成与熵隐式生成先验，解决VAE后验坍塌问题

📌 工作参考价值（4 点）

在推荐系统的表示学习（如用户/物品潜变量）中，可用类似框架：仅保留重建损失，放弃显式KL正则，通过编码器集成与熵约束隐式形成结构化潜空间，避免后验坍塌导致表示退化。
多模态隐空间（本工作的非高斯、多模态分布）天然适合捕获用户行为的多意图性，例如电商用户会话中隐含的类别/风格层级，可借鉴EAE的层次化解耦能力。
自由能最小化集成训练方法（多个编码器协同）可迁移到多智能体或分布式特征提取场景，通过参数扰动扩展搜索范围，缓解单一编码器陷入无信息表示。
工程实现上，该方法无需修改现有自编码器架构，改动仅在于损失函数与编码器前向过程，易于在PyTorch/TF中尝试，尤其适合处理后验坍塌严重的稀疏数据（如行为序列）。

GenRec | 2026-05-15 | cs.LG | score 6/10

posterior collapse entropic autoencoder free energy latent representation variational inference unsupervised learning

TILT: Target-induced loss tilting under covariate shift

TILT：协变量漂移下的目标诱导损失倾斜

🧭 无监督域适应 · 重要性加权 · 协变量漂移

Massachusetts Institute of Technology

通过分解源预测器为 f+b 并在目标无标签数据上惩罚 b，实现无需密度比估计的隐式重要性加权域适应

📌 工作参考价值（4 点）

在电商推荐中，训练集与线上分布不符时，可将推荐模型分解为共享主体（f）和域偏置（b），用目标域无标签曝光数据惩罚 b 来矫正分布差异，部署时仅使用 f，避免密度比估计的不稳定。
该方法对正则化超参数不敏感，实验中在一个宽范围内表现稳定，适合工业场景调参困难的问题。
理论保证了即使源目标域支持不相交，b 的范数仍一致有界，避免极端偏移下的失效，可应用于用户群体差异巨大的跨市场推荐。
实现简单：只需在原损失中增加目标侧对 b 的惩罚项，支持任何梯度下降框架，可快速集成到现有模型中。

Training | 2026-05-14 | stat.ML | score 6/10

domain adaptation covariate shift importance weighting loss penalty empirical risk minimization unsupervised learning

Unsupervised Process Reward Models

无监督过程奖励模型

🧭 PRM训练 · 无监督学习

Swiss Federal Institute of Technology (EPFL)

提出无需人工标注的无监督PRM，通过LLM next-token概率联合定位第一步错误步骤

📌 工作参考价值（4 点）

无监督奖励塑形：借鉴基于LLM自身token概率的评分函数，在Agent多步交互或推荐多轮对话中，无需人工标注即可识别错误步骤，用于重试或矫正策略。
批次内对比定位：利用同一批次多个轨迹的相似性联合评估第一步错误位置，可迁移到电商搜索多意图理解或生成式推荐的HIT预估，通过对比候选序列一致性定位偏差。
强化学习稳健训练：uPRM作为reward信号比有监督PRM更稳健，适合推荐策略在线优化时，避免过拟合人工偏好，直接利用模型自身不确定性进行探索。
测试时验证器：uPRM作为验证器可提升多数投票基线（+6.9%），在推理链较长的生成式推荐（如Semantic ID生成）中可用于beam search重新排序。

Training | 2026-05-10 | HF Daily | score 7/10

PRM unsupervised learning reasoning step-level reward LLM reinforcement learning